Khổng Miếu nằm trong khuôn viên hình chữ nhật, chiều dài Nam Bắc 1300m, tổng diện tích 133.000m². Toàn bộ có 9 dãy kiến trúc liền kề với sân vườn, xếp hàng dọc trên một trục chính Nam Bắc, hai bên trục đối xứng nhau, mặt chính của miếu là hướng Nam.

Tòa cửa thứ nhất của Khổng Miếu là Linh Tinh Môn cao 10,3m rộng 13m được xây dựng thời Minh Vĩnh Lạc. Cửa này xây để cúng sao Thiên Điền trên trời, đều này thể hiện việc các Hoàng đế thời xưa cúng tế Khổng Tử như cúng tế trời, tôn thánh như tôn thiên. Hai bên cửa Linh Tinh đặt hai tấm bia đá lớn đề hàng chữ "quan viên hãy xuống ngựa". Phía sau cửa thứ năm của Khổng Miếu là một tòa lầu cao làm bằng gỗ gọi là Khuê Văn Các, xây dựng thời Tống Thiên Hỷ (Khuê là sao Khuê chủ quản sự hưng vong của văn chương dân gian). Khuê Văn Các cao 23,35m rộng 30m, ba tầng mái cong.

Kiến trúc chủ thể của Khổng Miếu là Đại Thành điện, nơi các Hoàng đế đến thờ cúng Khổng Tử. Đại Thành điện xây từ thời nhà Tống nhưng đến thời Ung Chính mới được trùng tu thành quy mô lớn.